Suni zekâ söyleşi botlarının hızla yayılması, bilhassa çocuklarla kurulan etkileşimlerde güvenlik tartışmalarını gündeme taşıdı. Son dönemde ortaya çıkan örnekler, bu botların uygunsuz konuşmalara girebildiğini gösterdi. Artan eleştiriler üstüne Meta, mevzuya ilişkin yeni adımlar atmak durumunda kaldı.
Meta, son günlerde gündeme gelen eleştirilerin peşinden söyleşi botları için bazı geçici kurallar getirdi. Şirket, bilhassa reşit olmayanlarla meydana getirilen konuşmalarda kendine zarar verme, intihar ya da yeme bozuklukları benzer biçimde konuların haricinde kalınacağını ve uygunsuz diyalogların engelleneceğini açıkladı.
Meta, yapmış olduğu açıklamada bu düzenlemelerin şimdilik geçici bulunduğunu ve ileride daha kapsamlı kurallar getireceklerini açıkladı. Ortaya çıkarılan detaylar ise dikkat çekiciydi: Söyleşi botları bugüne dek çocuklarla duygusal ya da cinsel içerikli konuşmalar yapabiliyor hatta reşit olmayan ünlülerin uygunsuz görsellerini bile üretebiliyordu.
Meta, sorunları çözmek için kalıcı düzenlemeler üstünde çalışıyor
Yaşanmış olan bu gelişmelerin peşinden Meta’nın sözcüsü, meydana getirilen hatayı kabul etti ve botların kullanıcıları uzman kaynaklara yönlendirmesi için yeni eğitimler verildiğini duyurdu fakat mesele bir tek bununla sınırı olan değil doğal ki. Ortaya çıkan bilgilere bakılırsa Facebook, Instagram ve WhatsApp’ta ünlüleri öykünmek eden suni zekâ botları da dolaşıyor.
Taylor Swift, Scarlett Johansson ve Walker Scobell benzer biçimde adların düzmece botları kullanıcılarla cinsel içerikli sohbetlere giriyor ve kendilerini gerçek şahıs benzer biçimde tanıtıyordu. Üstelik bu botların bazıları üçüncü kişiler tarafınca yapılmış olsa da Meta çalışanlarının oluşturduğu örnekler de vardı.
Meta’nın almış olduğu önlemler şu an için bir tek çocuklarla ilgili riskleri kapsıyor fakat firmanın, suni zekâların yanlış sıhhat detayları vermesi ya da ırkçı içerikler üretmesi benzer biçimde öteki problemler mevzusunda sessiz kalması dikkat çekiyor. Üstelik ABD Senatosu ve 44 eyaletin başsavcısı mevzuyla ilgili soruşturma başlatmış durumda. Bu da Meta’nın önümüzdeki dönemde oldukça daha kapsamlı adımlar atmak zorunda kalabileceğini gösteriyor.
